Ông tên thật là Nguyễn Phương Thảo, quê ở thôn Yên Phú, xã Tinh Tiến (nay là xã Giai Phạm), huyện Yên Mỹ, tỉnh Hưng Yên.[1] Thời trẻ, ông lên Hải Phòng làm thủy thủ trên tàu viễn dương chạy tuyến Việt Nam - Pháp. Được Trần Huy Liệu vận động, ông tham gia cách mạng, gia nhập Việt Nam Quốc dân đảng, phụ trách quân sự. Sau thất bại của khởi nghĩa Yên Bái, lực lượng Việt Nam Quốc dân đảng bị phân hóa. Cả Trần Huy Liệu và Nguyễn Phương Thảo đều bị thực dân Pháp bắt giam và đày đi Côn Đảo. Do tư tưởng thiên tả, 2 người bị nhóm cực hữu trong đảng kết án tử hình nhưng đều may mắn thoát nạn. Riêng Nguyễn Phương Thảo bị đâm mù một mắt.[2].

Năm 1936, ông được trả tự do, về Hải Phòng hoạt động cách mạng và xây dựng căn cứ riêng. Cũng trong thời gian này, ông đổi tên thành Nguyễn Bình, với ý nghĩa "Bình thiên hạ", chính thức ly khai Việt Nam Quốc dân đảng. Từ năm 1943, ảnh hưởng của Nguyễn Bình từ Bần Yên Nhân, tỉnh Hưng Yên mở rộng sang vùng Kiến An, Hải Phòng, đến An Lão, Hải An, Thủy Nguyên, tỉnh lị Kiến An và thị xã Đồ Sơn[cần dẫn nguồn].

Tháng 6 năm 1945, Nguyễn Bình cùng với Hải Thanh, Nguyễn Hiền, Trần Cung thành lập chiến khu Đông Triều và đảm nhận nhiệm vụ tư lệnh. Khi Cách mạng tháng Tám năm 1945 nổ ra, ông chỉ huy du kích đánh chiếm tỉnh lỵ Quảng Yên và cướp vũ khí ở một số huyện.[3].

Khi thực dân Pháp đánh chiếm rộng ra toàn Nam Bộ, Nguyễn Bình được Chủ tịch nước Hồ Chí Minh cử vào Nam lo việc chỉnh đốn phong trào kháng chiến và thống nhất các lực lượng vũ trang tại Nam Bộ. Tháng 12 năm 1945 ông được cử làm Khu trưởng Khu 7 Nam Bộ, lập tổng hành dinh ở Làng An (Biên Hòa), sau bị địch truy quét nên chuyển về xã An Phú (Gia Định) rồi xã An Thành, phía nam Bến Cát. Dưới sự chỉ huy của Nguyễn Bình, tình trạng cát cứ dần giảm bớt, các quân phiệt cát cứ gia nhập vào lực lượng Vệ quốc đoàn, các đơn vị bộ đội được phiên chế thống nhất thành các chi đội Vệ quốc đoàn. Ông còn lập các ban Công tác thành làm nhiệm vụ phá hoại sau lưng địch[cần dẫn nguồn].

Ngày 20 tháng 1 năm 1948, ông được Chính phủ phong quân hàm Trung tướng và cử làm tổng chỉ huy chiến trường Nam Bộ. Cùng đợt có Võ Nguyên Giáp được phong Đại tướng; Nguyễn Sơn, Lê Thiết Hùng, Chu Văn Tấn, Hoàng Sâm, Hoàng Văn Thái, Lê Hiến Mai, Văn Tiến Dũng, Trần Đại Nghĩa, Trần Tử Bình được phong Thiếu tướng. Lễ thụ phong Trung tướng được tổ chức tháng 7 năm 1948 tại làng Nhơn Hòa Lập trên con kênh Dương Văn Dương, Đồng Tháp.

Tháng 6 năm 1948, Chính phủ Việt Nam Dân chủ Cộng hòa gửi điện vào công nhận Ban Quân sự Nam Bộ và cử Trung tướng Nguyễn Bình giữ chức Ủy viên quân sự. Tháng 10 năm 1948, Bộ tư lệnh Nam Bộ được thành lập thay cho Ban Quân sự Nam Bộ, ông được bầu làm tư lệnh.[4]

Ngày 29 tháng 9 năm 1951, theo yêu cầu của Trung ương, ông lên đường ra Bắc nhận nhiệm vụ mới. trên đường đi, ông bị quân Pháp phục kích và hi sinh tại xã Srê Dốc, huyện Sê San, tỉnh Xtung Treng, trên đất Campuchia. Người chỉ huy lực lượng bảo vệ ông khi ấy là cán bộ cấp tiểu đoàn Nguyễn Văn Sĩ, nay là Thiếu tướng nghỉ hưu tại Thành phố Hồ Chí Minh. Bộ Tổng tư lệnh thông báo tin ông hi sinh ngày 31 tháng 12 năm 1951 (theo bản tin ông sinh năm 1909 tại Bần Yên Nhân, Hưng Yên). Tháng 2 năm 1952, Hồ Chủ tịch ký sắc lệnh 84/SL truy tặng ông Huân chương Quân công hạng nhất. Ông cũng là người đầu tiên trong quân đội được nhận Huân chương cao quý này.

Ngày 29 tháng 2 năm 2000, Bộ Tư lệnh quân khu 7 đã di chuyển hài cốt của ông về an táng tại nghĩa trang liệt sĩ thành phố Hồ Chí Minh[5]. Tang lễ được cử hành theo nghi thức long trọng. Ông còn được nhà nước truy tặng Huân chương Hồ Chí Minh và danh hiệu Anh hùng lực lượng vũ trang nhân dân.